HPE는 인공지능(AI) 얼굴 및 영상인식 전문기업인 씨유박스(CUBOX)가 HPE 크레이 XD 슈퍼컴퓨터(HPE Cray XD Supercomputer)를 활용하여 기존 영상인식 솔루션을 훈련시키기 위한 생성형 AI 모델을 개발하고 있다고 발표했다. 씨유박스는 해당 시스템을 통해 새로운 영상 처리 기술 개발에 중점을 두고 혁신을 더욱 강화할 계획이다. 얼굴인식 기술 기반 보안 분야의 국내 기업인 씨유박스는 인천국제공항 내 자동 출입국 심사대 및 주요 정부 기관에 얼굴인식 단말기를 공급하고 있다. 씨유박스는 이번 HPE 크레이 XD 슈퍼컴퓨터의 도입을 통해 생성형 AI 모델 훈련을 최적화한다는 계획이다. 기존 공공시장(B2G)에서 더 나아가 금융 부문 AI 솔루션에 중점을 두고 B2B 시장으로 영역을 더욱 확대하고 있는 씨유박스는 다양한 B2C 서비스를 구축하는데 있어 생성형 AI 역할의 중요성을 인식하고, B2C AI 서비스 모델에 대한 투자도 이어가고 있다.  씨유박스의 시스템은 HPE 크레이 XD6500 슈퍼컴퓨터를 사용하여 구축되었다. 이 시스템은 이론상 최대 8.136 페타플롭스(petaFLOPs)의 성능을 제공하며, 전 세계 슈퍼컴퓨터 순위인 TOP500 목록에서 156위를 차지했다. HPE 크레이 XD 슈퍼컴퓨터의 향상된 컴퓨팅 성능과 첨단 기능은 씨유박스가 영상, 텍스트, 음성 및 비디오 처리의 기반이 되는 대규모 언어모델(LLM) 및 대규모 멀티모달모델(LMM)과 같은 대규모 AI 기술을 지원하는 기술 로드맵을 수립하는데 핵심 역할을 했다는 것이 HPE의 설명이다. 씨유박스의 남운성 대표는 “씨유박스는 영상인식 기술의 발전을 주도하고, AI 기반 솔루션으로 인간 상호작용을 새롭게 정의하며 보안을 발전시키는 미래를 만들어가고 있다. 새로운 인프라를 기반으로 생성형 AI 서비스를 구축하여 사업을 확장하고, 의료 서비스, 로봇 시스템 및 디지털 트윈과 같은 새로운 비즈니스에 영상 인식 솔루션을 적용하고 있다”고 전했다. 한국HPE의 김영채 대표이사는 “AI, 모델링, 시뮬레이션 등의 작업은 강력한 스케일링과 대규모 성능이 필요하다. 슈퍼컴퓨터는 이러한 컴퓨팅 및 데이터 집약적인 워크로드를 효율적으로 지원할 수 있는 이상적인 플랫폼을 제공한다. 세계에서 가장 강력한 슈퍼컴퓨터 중 하나를 구동하여 씨유박스를 지원하고, 정부 기관 및 다양한 조직의 혁신을 촉진하는 영상인식 솔루션을 발전시키는데 기여할 수 있게 되어 영광스럽게 생각한다”고 말했다.

HPE가 생성형 AI를 위한 슈퍼컴퓨팅 솔루션을 발표했다. 이 솔루션은 대기업, 연구기관 및 정부 기관을 대상으로 한 생성형 AI에 최적화되었으며, 이를 통해 프라이빗 데이터 세트를 활용하여 인공지능(AI) 모델의 훈련과 조정을 효율적으로 가속화할 수 있다. HPE의 슈퍼컴퓨팅 솔루션은 소프트웨어 제품군을 통해 고객이 AI 모델을 훈련하고 조정하며 AI 애플리케이션을 개발하는 데 도움이 되는 기능을 한다. 더불어, 수냉식 슈퍼컴퓨터, 가속 연산, 네트워킹, 스토리지, 서비스를 포함하여 기업이 AI의 가치를 신속하게 실현할 수 있도록 종합적인 지원을 제공한다. 생성형 AI용 슈퍼컴퓨팅 솔루션의 핵심 구성요소는 AI 애플리케이션을 개발하고, 사전 구성된 모델을 맞춤화하며, 코드를 개발하고 수정하는 데 필요한 소프트웨어 도구이다. 이 소프트웨어는 HPE 크레이 슈퍼컴퓨팅 기술을 기반으로 하고 있다. HPE 크레이 슈퍼컴퓨팅 기술은 빠른 슈퍼컴퓨팅에도 사용되는 아키텍처를 기반으로 하고 있으며, 엔비디아 그레이스 호퍼 GH200 슈퍼칩(NVIDIA Grace Hopper GH200 Superchips)으로 구동된다. 이러한 기술이 적용된 솔루션을 바탕으로 기업 및 기관들은 LLM(대규모 언어 모델) 및 DLRM(딥러닝 추천 모델) 훈련과 같이 거대한 AI 워크로드에 필요한 규모와 성능을 구축할 수 있다. 또한 해당 시스템에 포함된 HPE 머신러닝 개발 환경(MLDE)을 사용함으로써 오픈소스이자 700억개 매개 변수를 가진 라마(Llama) 2 모델을 3분 이내에 미세 조정할 수 있어 고객이 가치 창출에 이르는 시간을 단축시켜준다. 이로써 엔비디아 기술과 함께 더욱 향상된 HPE 슈퍼컴퓨팅은 2~3배 향상된 성능을 제공한다. 생성형 AI를 위한 HPE의 슈퍼컴퓨팅 솔루션은 목적에 맞게 구축된 통합형 AI 네이티브 제품으로 엔드 투 엔드 기술 및 서비스를 제공한다. AI/ML 가속화를 위한 3개의 소프트웨어 툴이 포함된 제품군을 활용해 고객은 인공지능 모델을 훈련하고, 조정하며, 맞춤화된 AI 애플리케이션을 만들 수 있다. HPE 머신러닝 개발 환경은 머신러닝 소프트웨어 플랫폼으로, 인기 있는 머신 러닝 프레임워크와 통합하고 데이터 준비를 간소화해 AI 모델을 보다 빠르게 개발하고 배치할 수 있다. 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)는 보안, 안정성, 관리 및 지원 기능을 기반으로 기업과 기관이 최첨단 AI 기술을 더 적극적으로 사용할 수 있도록 돕는다. 또한, 생산용 AI의 개발 및 배치를 간소화하는 광범위한 프레임워크, 사전 훈련된 모델과 도구를 제공한다. 엑사스케일 수준의 시스템인 HPE 크레이 EX2500(HPE Cray EX2500)을 기반으로 엔비디아 GH200 그레이스 호퍼 슈퍼칩을 탑재한 이 솔루션은 가치 실현 시간을 더욱 단축할 수 있도록 단일 AI 워크로드에 노드 전체 용량을 배치할 수 있으며, 최대 수천 개의 GPU까지 확장할 수 있다. 또한, 이 시스템은 최초로 네 개의 GH200 수퍼칩 노드로 구성되어 제공된다. HPE 슬링샷 인터커넥트(HPE Slingshot Interconnect)는 엑사스케일 수준의 워크로드를 지원하도록 설계된 개방형 이더넷 기반 고성능 네트워크를 제공한다. HPE 크레이 기술을 기반으로 한 이 조정 가능한 상호연결은 매우 빠른 속도의 네트워킹을 가능하게 해 전체 시스템의 성능을 극대화한다. 생성형 AI용 슈퍼컴퓨팅 솔루션에는 더욱 간편하게 AI를 도입할 수 있도록 설정, 설치에서 라이프사이클 전반을 지원하는 글로벌 전문가를 제공하는 ‘HPE 컴플리트 케어 서비스(HPE Complete Care Services)’도 포함된다. HPE의 저스틴 호타드(Justin Hotard) 수석 부사장 겸 HPC·AI & Labs 총괄은 “세계 유수의 기업과 연구소들은 AI 모델의 훈련과 조정을 통해 연구 분야에서 혁신을 이끌어 내고 있으며, 이를 효과적이고 효율적으로 수행하기 위해서는 목적에 맞게 구축된 솔루션이 필요하다”며, “생성형 AI를 활용하기 위해서 기업 및 기관들은 지속가능한 솔루션을 사용하고, 슈퍼컴퓨터에 최적화된 성능과 규모를 기반으로 AI 모델 훈련을 지원해야 한다. HPE는 엔비디아와의 협력을 확대해 고객이 AI 모델 훈련과 성과 달성을 더욱 가속화할 수 있도록 지원하는 턴키 AI 네이티브 솔루션을 제공하게 돼 기쁘다”고 밝혔다. 엔비디아의 이안 벅(Ian Buck) 하이퍼스케일 및 HPC 부문 부사장은 “생성형 AI는 모든 산업과 과학 분야에 변화를 일으키고 있다”며, “엔비디아 GH200 그레이스 호퍼 슈퍼칩으로 구동되는 턴키 AI 훈련 및 시뮬레이션 솔루션을 위한 엔비디아와 HPE의 협력은 고객이 생성형 AI 이니셔티브의 돌파구를 마련하는데 필요한 성능을 제공할 것”이라고 말했다.

HPE가 자사의 연례행사인 'HPE 디스커버 라스베가스 2023'에서 대규모 언어모델을 위한 제품 ‘LLM용 HPE 그린레이크 (HPE GreenLake for LLM)’을 공개하면서, HPE 그린레이크의 포트폴리오 확장 및 AI 클라우드 시장 진출을 밝혔다. 이번에 공개된 대규모 언어모델(LLM)을 위한 HPE 그린레이크는 AI 소프트웨어와 고성능의 슈퍼컴퓨터를 함께 활용할 수 있는 지속가능한 슈퍼컴퓨팅 플랫폼이다. HPE는 스타트업부터 포춘 선정 500대 기업에 이르기까지 다양한 규모의 기업들이 온디맨드 형식으로 멀티 태넌트 슈퍼컴퓨팅 클라우드 서비스를 이용할 수 있도록 지원한다는 계획이다. HPE LLM용 그린레이크는 알레프 알파(Aleph Alpha)의 사전 훈련된 대규모 언어모델인 루미너스(Luminous)에 대한 접근도 제공하며, 이 모델은 영어, 프랑스어, 독일어, 이탈리아어 및 스페인어 등 다양한 언어로 서비스된다. 또한 고객들은 이를 활용해 자사 데이터를 활용하고 맞춤형 모델을 훈련 및 미세조정(Fine-tune)하며 예측가능한 정보를 바탕으로 실시간 인사이트를 도출해 낼 수 있다. 기업들은 이 서비스를 통해 다양한 시장에 맞게 AI 애플리케이션을 구축하고 워크플로에 통합시켜 비즈니스 및 연구를 기반으로 한 가치를 창출할 수 있다. HPE LLM용 그린레이크는 HPE 크레이 XD 슈퍼컴퓨터(HPE Cray XD supercomputers)에서 구동되며 온디맨드로 이용 가능하다. 이를 통해 고객들은 비용이 높고 관리가 복잡하며 전문 기술이 필요한 슈퍼컴퓨터를 자체적으로 구매하거나 관리할 필요가 없어졌다. 이 서비스는 HPE 크레이 프로그래밍 환경(HPE Cray Programming Environment)을 통해 제공되는데 HPE 크레이 프로그래밍 환경은 소프트웨어 제품군에 통합된 서비스로 HPC 및 AI 애플리케이션을 최적화해주며 개발, 포팅(porting), 디버깅 및 코드 조정을 위한 툴셋을 제공한다. 이에 더해, 슈퍼컴퓨팅 플랫폼은 HPE의 AI/ML 소프트웨어를 제공한다. 그 중 HPE 머신러닝 개발 환경(HPE Machine Learning Development Environment)은 대규모 모델을 빠르게 훈련하는 것을 돕고, HPE 머신러닝 데이터 매니지먼트 소프트웨어(HPE Machine Learning Data Management Software)는 재현가능한(reproducible) AI 역량을 바탕으로 데이터를 통합, 추적 및 검사함으로써 믿을 수 있고 정확한 모델을 생성할 수 있도록 한다. HPE의 LLM용 그린레이크는 기업이 자체적으로 대규모 AI 모델을 훈련, 조정 및 배포할 수 있게 한다. HPE는 고객들이 업계에서 검증된 LLM을 바로 사용할 수 있도록 독일 AI 스타트업 파트너 알레프 알파(Aleph Alpha)와 협력해 LLM용 HPE 그린레이크를 제공할 계획이다. HPE는 "기업들이 텍스트와 이미지 처리 및 분석이 필요한 사용사례 개발에 박차를 가하도록 지원할 것"이라고 전했다. 또한, HPE는 향후 기후 모델, 헬스케어, 생명과학, 금융 서비스, 제조 및 운송에 이르기까지 다양한 업계 및 도메인에 특화된 AI 애플리케이션 시리즈를 출시할 예정이다. HPE의 LLM 그린레이크는 컴퓨팅 역량을 최대로 활용해 대규모 단일 AI 트레이닝 및 시뮬레이션 워크로드를 처리할 수 있도록 특별히 제작된 AI 네이티브 아키텍처에서 구동된다. 이 제품은 수백에서 수천 개의 CPU 또는 GPU에서 구동되던 AI 및 HPC 업무를 한 번에 지원할 수 있다. HPE는 이러한 역량이 AI를 훈련하고 더욱 정확한 모델을 생성하는데 있어 더욱 효과적이며, 신뢰할 수 있고 효율적이라는 점을 내세운다. 또한, 기업들이 이를 통해 개념검증(POC) 단계에서 생산에 이르기까지 모든 과정을 더욱 가속화하여 기업이 직면한 문제를 더욱 빠르게 처리할 수 있게 될 것으로 기대했다. 한편, HPE는 LLM을 훈련하고 조정할 수 있는 HPE LLM용 그린레이크에 더해 AI 추론 컴퓨팅 솔루션도 공개했다. 이 시스템은 에지의 컴퓨터 비전이나 생성형 시각적 AI 및 자연어 처리 AI 등 에지와 데이터센터 내에 있는 워크로드를 타기팅하도록 조정되었다. 해당 제품은 HPE 프로라이언트 Gen11 서버에 기반을 두고 있다. HPE 프로라이언트 Gen11은 한층 더 발전된 GPU 가속화 역량을 통합할 수 있도록 맞춤 설계되었으며 이는 AI 성능에 핵심적이다. HPE 프로라이언트 DL380a와 DL 380 Gen11서버는 이전 모델보다 5배 더 뛰어난 AI 추론 역량을 지원한다. HPE는 이 추론 컴퓨팅 솔루션이 유통, 숙박, 제조, 미디어 및 엔터테인먼트에 이르기까지 다양한 산업들의 가치창출을 더욱 가속화할 수 있도록 지원할 수 있을 것으로 보고 있다. HPE의 안토니오 네리(Antonio Neri) CEO는 "오늘날 우리는 웹, 모바일 및 클라우드만큼 혁신적인 AI 시장의 세대 변화를 마주하고 있다. HPE의 입증된 지속가능한 슈퍼컴퓨팅에서 구동되는 LLM 등 다양한 AI 애플리케이션을 제공함으로써, HPE는 자금력이 풍부한 정부출연연구소나 글로벌 클라우드 대기업의 전유물이었던 AI를 HPE의 검증된 슈퍼컴퓨터를 통해 모두가 접근할 수 있는 영역으로 만들고 있다"면서, "이제 많은 기관과 기업들은 온디맨드 클라우드 서비스를 통해 AI 모델을 훈련, 조정 및 배포함으로써, AI를 활용해 혁신을 일으키고 시장에 변화를 꾀하고 돌파구를 찾을 수 있게 되었다”고 전했다.